# %pip install mysql-connector-python
# %pip install plotly
# %pip install mlxtend
# %pip install networkx
# %pip install fbprophet
# %pip install openpyxl
# %pip install nbformatTrabajo Final de Máster
Máster en Data Science For Business
Estudiantes:
- Maria Jesús Quirós
- Jorge Luis Barquero Villagra
Tutor: Ramón Alberto Carrasco
CRISP-DM
Requisitos previos:
Para ejecutar el siguiente notebook se debe tener un ambiente de Python con las siguientes librerías instaladas.
Versión de Python 3.8.xx
- mysql-connector-python 8.4.0
- plotly 5.9.0
- mlxtend 0.23.1
- networkx 3.1
- fbprophet 1.1.5
- openpyxl 3.0.10
- nbformat 5.9.2
# Imports para ejecución del notebook
import pandas as pd
import os as os
import matplotlib.pyplot as plt
import plotly.express as px
import numpy as np
import sqlite3
import plotly.io as pio
from mlxtend.frequent_patterns import association_rules
from mlxtend.frequent_patterns import apriori
from prophet import Prophet
#print(Prophet.__version__)
# Variable global para administrar el directorio actual
parent_dir = os.path.dirname(os.getcwd())
# Configuración para los renders de plotly
pio.renderers.default = 'notebook'
# Ubicación de base de datos
database_name = '/data/database/tfm_couriers.db'
# Funciones reutilizables
def SalvarEnBD(table_name, data):
conn = sqlite3.connect(parent_dir + database_name)
# Convierte el DataFrame a una tabla SQL
data.to_sql(table_name , conn, if_exists='replace', index=False)AttributeError: type object 'Prophet' has no attribute '__version__'Business Understanding - listo
Un courier es una empresa o servicio especializado en la entrega rápida y eficiente de paquetes, documentos y otros tipos de envíos. A diferencia de los servicios postales tradicionales, los couriers suelen ofrecer una mayor velocidad, seguridad y confiabilidad en la entrega de sus envíos. Suelen caracterizarse porque sus servicios incluyen:
- Rapidez: Algunas empresas couriers pueden hacer entregas en el mismo día, al día siguiente o en un plazo muy corto, dependiendo de la urgencia del envío.
- Seguimiento: Los envíos por courier generalmente pueden ser rastreados en tiempo real, proporcionando información precisa sobre el estado y la ubicación del paquete.
- Seguridad: Los couriers a menudo ofrecen un manejo más cuidadoso de los envíos, con seguros y opciones de firma al recibir el paquete.
- Flexibilidad: Ofrecen una amplia gama de servicios, desde entregas locales y nacionales hasta envíos internacionales, adaptándose a las necesidades específicas de sus clientes.
- Servicio al cliente: Proporcionan atención personalizada y soluciones específicas para problemas o necesidades de envío.
Los couriers son utilizados tanto por particulares como por empresas que necesitan enviar documentos importantes, productos comprados en línea, muestras comerciales, y otros tipos de paquetes que requieren una entrega rápida y segura.
La empresa ExpediteX es una empresa dedicada a prestación de servicios logísticos de Courier y mensajería, que cuenta con 25 años de experiencia en el mercado. Sus servicios van desde la importación de productos en la modalidad de carga y paqueteo, distribución local y nacional a domicilio, hasta la asesoría para la importación y exportación, casillero internacional y asesoría de compras internacionales.
Por otro lado, SwiftShip cuenta con experiencia de 19 años en el manejo y traslado de paquetes y encomiendas, se caracterizan por trabajar directamente, sea, desde el recibimiento hasta la entrega de las mercancías es manejada por la empresa directamente (sin intermediarios).
Adicionalmente cuentan con 207 sucursales y/o puntos de recepción a nivel internacional en 50 países diferentes, entre ellos Estados Unidos, Canadá, Panamá, República Dominicana, Guatemala, Venezuela, Argentina, Brasil, Chile, Colombia, Ecuador, Perú, Uruguay, España, Italia, Portugal, Alemania y el resto de la Comunidad Europea.
Ambas empresas operan en un mercado muy competitivo, donde la eficiencia en la entrega, la cobertura geográfica y la calidad del servicio al cliente son factores clave para su éxito. Estas empresas ofrecen una variedad de servicios, que van desde la entrega de paquetes locales hasta el envío internacional, adaptándose a las necesidades de diferentes segmentos del mercado, como particulares y empresas.
La integración de tecnologías avanzadas, como el rastreo en tiempo real y la gestión automatizada de inventarios y compras juega un papel crucial en la optimización de los procesos logísticos, con lo que la incorporación de toma de la decisiones basadas en datos, tiene gran importancia en las empresas de courier, pues es crucial para optimizar sus operaciones, mejorar la satisfacción del cliente y aumentar la eficiencia en el manejo de envíos.
Objetivo General - listo
Desarrollar mediante la metodología CRISP-DM un análisis de datos sobre los procesos de importación de las empresas SwiftShip y ExpediteX de courier en Costa Rica durante el período 2021-2023, para la optimización de sus operaciones y mejora de la toma de decisiones estratégicas. Utilizando técnicas avanzadas de análisis de datos y las herramientas disponibles, se espera obtener al menos cinco recomendaciones concretas y presentar los hallazgos en un informe detallado en el plazo de cuatro meses.
Objetivos Específicos - listo
Implementar un análisis de cesta (basket analysis) utilizando algoritmos de asociación para la identificación de los patrones más relevantes de compra y relaciones entre los productos adquiridos por los importadores que han utilizado los servicios de las empresas SwiftShip y ExpediteX de courier en Costa Rica. Utilizando los datos de transacciones de los últimos tres años, se espera la mejora en las estrategias de marketing y optimización del servicio. El análisis se lleva a cabo y los resultados se presentan en un informe detallado en un plazo de tres meses.
Realizar un análisis de tendencias de las mercancías importadas utilizando técnicas de análisis de series temporales, para la identificación de patrones significativos y cambios importantes en la demanda de diferentes tipos de mercancías a lo largo del tiempo. Esto permitirá la anticipación de las necesidades logísticas y ajustes de estrategias de importación para la mejora de la eficiencia operativa. Dicho análisis se completará en un plazo de seis meses.
Diseñar un conjunto de tres variables ingenieriles específicas para la implementación en las empresas SwiftShip y ExpediteX, para la optimización de los procesos de importación bajo la modalidad courier. Utilizando técnicas de análisis de datos y conocimientos de la industria, se espera la mejora de la eficiencia y efectividad de dichos procesos. Este diseño y la implementación de un plan piloto se completarán en un plazo de cinco meses.
Definiciones - listo
Aduana: Unidad técnico-administrativa encargada de las gestiones aduaneras y del control de las entradas, la permanencia y la salida de las mercancías objeto del comercio internacional (Art. 13 LGA).
Agente aduanero: Profesional auxiliar de la función pública aduanera autorizado por la DGA para actuar, en su carácter de persona natural en la presentación habitual de servicios a terceros, en los trámites, los regímenes y las operaciones aduaneras. (Art. 33, LGA)
Auxiliar de la Función Pública: Personas físicas o jurídicas, públicas o privadas, que participen habitualmente ante el Servicio Nacional de Aduanas (SNA), en nombre propio o de terceros. (Art. 28 LGA).
Bultos: Unidad utilizada para contener mercancías. Puede consistir en cajas, sacas, fardos, cilindros y demás formas de presentación de las mercancías, según su naturaleza (Ministerio de Hacienda, 2021).
Código Sistema Arancelario Centroamericano (SAC): El Arancel Centroamericano de Importación está constituido por el Sistema Arancelario Centroamericano (SAC) y los correspondientes Derechos Arancelarios a la Importación (DAI). El código numérico del SAC está representado por diez dígitos que identifican: los dos primeros, al capítulo; los dos siguientes, a la partida; el tercer par, a la subpartida; y los cuatro últimos, a los incisos arancelarios. La identificación de las mercancías se hará siempre con los diez dígitos de dicho código numérico. (Estrategia Aduanera, s.f.)
Código Sistema Armonizado (SA): El Sistema Armonizado (SA) es un código de clasificación de mercancías creado por la Organización Mundial de Aduanas (OMA) y está compuesto por 6 dígitos con aceptación en todo el mundo. Sirve para llevar un control en las mercancías de exportación e importación en cuanto a los impuestos internos, monitoreo de bienes, origen y materia constitutiva.
Declarante: El importador o consignatario, en el caso de la importación de mercancías.
Depositario Aduanero: Persona física o jurídica, pública o privada, auxiliar de la función pública aduanera autorizadas mediante concesión por la DGA, que custodian y conservan temporalmente y con suspensión del pago de tributos, mercancías objeto de comercio exterior, bajo la supervisión y el control de la autoridad aduanera. (Ministerio de Hacienda, 2021).
Derechos Arancelarios a la Importación (DAI): Derechos Arancelarios a la Importación que son un porcentaje estipulado por tipo de mercancías y se calcula sobre el Valor Aduanero.
Descripción o designación de la mercancía: Precisa identificación de las características de ésta, sea de manera concreta, detallada, que singulariza de tal forma el objeto a clasificar que no deja duda alguna sobre su tipificación. (Quirós, 2024).
DUA: Documento Único Aduanero, declaración realizada mediante transmisión electrónica de datos, mediante la cual se indica el régimen aduanero y la modalidad que deberá aplicarse a las mercancías (Ministerio de Hacienda, 2021).
Empresa de entrega rápida (EER): Personas físicas o jurídicas legalmente establecidas, autorizadas y registradas ante la DGA, cuyo giro o actividad principal es la prestación de servicios de transporte internacional expreso a terceros, de correspondencia, documentos y envíos de mercancías bajo la modalidad de entrega rápida. (Ministerio de Hacienda, 2021).
Envíos de entrega rápida: Documentos y mercancías transportadas bajo sistemas de entrega rápida o courier, consignadas a terceros. (Ministerio de Hacienda, 2021).
Factura Comercial: Documento expedido conforme a los usos y las costumbres comerciales, justificativo de un contrato de compraventa de mercancías o servicios extendido por el vendedor a nombre y cargo del comprador.
Fecha: Fecha en que fue aceptado el DUA por el Sistema de Tecnología de Información para el Control Aduanero (TICA) de Costa Rica.
Flete: Monto de flete desde el origen, o sea desde el momento en que se elabora el conocimiento de embarque original y se inicia el servicio de transporte hasta el puerto o lugar de importación. (Ministerio de Hacienda, 2021).
Identificación (ID) Agente: Cédula de identidad física u jurídica del Agente Aduanero.
Identificación (ID) Declarante: En el caso que nos ataque, el número de identificación de la empresa declarante ante el Ministerio de Hacienda.
Identificación (ID) Localización: Número de identificación de la empresa donde está localizada la mercancía, en el caso de envíos de courier, suele referirse al Depositario Aduanero o Almacén fiscal.
Importador: Empresario o empresa que se dedica a comprar productos a clientes del exterior para luego venderlos en el mercado local o para consumo o uso propio.
Impuesto sobre el Valor Agregado (IVA): Según el artículo 1 de la Ley 9635, el impuesto sobre el valor agregado se establece en la venta de bienes y en la prestación de servicios, independientemente del medio por el que sean prestados, realizados en el territorio en Costa Rica.
Impuestos Selectivo de Consumo (SC): Impuesto establecido sobre bienes y servicios específicos, por razones que dependen de cada Estado. Entre las razones más comunes para gravar un bien específico se encuentra, por ejemplo, el carácter indemnizatorio o el desincentivador que se pretende implementar sobre o por el consumo o realización de este. Así, es que las bebidas alcohólicas, el tabaco, y la marihuana
Impuestos: Los Derechos o impuestos a la importación corresponden al monto de tributos que el fisco recauda debido al ingreso de una mercancía extranjera al comercio nacional. (Ministerio de Hacienda, 2024).
Ítem: Línea del DUA donde se describe e indica la cantidad de las mercancías que se presentan para ser destinadas a un régimen aduanero determinado.
Ley 6946: Tarifa de Ley N°6946, de un 1% aplicable sobre el valor aduanero.
Localización: véase Depositario Aduanero.
Medio o modo de transporte: Nave, aeronave, vagón ferroviario, vehículo automotor, o cualquier otro medio utilizado para el transporte de personas o mercancías. (Ministerio de Hacienda, 2021)
Mercancía: Objeto susceptible de ser apropiado y, por ende, importado o exportado, clasificado conforme al arancel de aduanas.
Modalidad: Cada régimen aduanero contará con modalidades según detalle, por ejemplo, la importación puede ser modalidad importación definitiva, temporal, courier, entre otras.
Modelo: De las mercancías que se adquieren, por ejemplo en sitios web y se trasladan a Costa Rica, bajo la modalidad de courier.
Nota técnica: requisitos no arancelarios o autorizaciones preestablecidos por la institución rectora mediante leyes y decretos, que avalan el ingreso o salida de las mercancías del o al territorio nacional. (Ministerio de Hacienda, 2021)
País de adquisición: País en donde se adquirido el servicio o mercancía.
País de origen: País de donde, según lo establecido en el Tratado de Libre Comercio, son originarias las mercancías o servicios.
País de procedencia: País de donde procede la mercancía, que no necesariamente coincide con el país de origen o de adquisición.
Peso bruto: El peso bruto es el peso total de un producto más su empaque o contenedor.
Peso neto: El peso neto de un producto, sea únicamente el peso del producto en sí.
Precio FOB: FOB es un término comercial que pertenece a los Incoterms, corresponde a las siglas en inglés de ‘Free on board’. El Precio FOB se determina por: precio de la mercancía, el precio de embalaje y etiquetado, precio por transporte desde la planta de producción hasta el puerto de origen, el precio del seguro de la mercancía durante su traslado a puerto, gastos administrativos generados por la concesión de permisos o licencias, gastos derivados de las autoridades aduaneras, algunos gastos bancarios resultantes de pagos y transferencias internacionales y gastos portuarios, como uso de muelle, elevadores o estiba.
PROCOMER: Promotora de Comercio Exterior de Costa Rica, pago de $3 por cada declaración aduanera transmitida electrónicamente, para la institución.
Proveedor: Persona física o jurídica que suministra profesionalmente un determinado bien o servicio a otros individuos o sociedades, como forma de actividad económica y a cambio de una contra prestación.
Régimen: Diferentes destinaciones a que pueden quedar sujetas las mercancías que se encuentran bajo control aduanero (Art 109. LGA)
Seguro: Protección de la carga desde que sale del depósito del vendedor hasta las bodegas del comprador, o según INCOTERM.
Unidad de medida: Referencia convencional que se usa para medir la magnitud física de un determinado objeto, sustancia o fenómeno.
Valor CIF: Representa el precio total de la mercancía, incluyendo el coste, del seguro y el flete hasta el puerto de destino acordado.
Valor en Aduana: El valor de transacción, o precio realmente pagado o por pagar por las mercancías cuando éstas se venden para su exportación al país de importación.
Data Understanding – MJ LO REDACTA
La etapa de data understanding es el segundo paso en el proceso CRISP-DM aplicado al análisis de las operaciones de importación de las empresas SwiftShip y ExpediteX en Costa Rica. El objetivo es comprender la complejidad y el alcance de los datos recopilados desde enero de 2021 hasta diciembre de 2023.
Data Collection: Se verifica que los datos recopilados, que abarcan desde detalles de la factura hasta el peso de los envíos y los impuestos aplicados, sean accesibles y estén completos. Se presta especial atención a la integridad de los datos relacionados con las fechas de importación, los valores CIF, y las descripciones de las mercancías para asegurar una base sólida para el análisis.
Data Description: Se realiza un examen detallado de los conjuntos de datos, destacando las columnas clave como ‘Año’, ‘DUA’, ‘Importador’, ‘Valor CIF US$’, y ‘Peso neto Kg.’, entre otros. Se utilizan estadísticas descriptivas para obtener una visión general de la cantidad de operaciones de importación, los rangos de valores, y las tendencias generales en los datos.
Data Exploration: Se busca comprender las relaciones entre diferentes variables, como el impacto del país de origen en el valor CIF, o la correlación entre el peso de los envíos y los costos de flete. Herramientas de visualización de datos y análisis exploratorio son empleadas para identificar patrones estacionales, tendencias en la demanda de mercancías, y posibles anomalías o outliers.
Data Quality Verification: Se evalúa la calidad de los datos identificando y abordando problemas como valores faltantes en campos críticos (e.g., ‘Valor CIF US$’), inconsistencias en la descripción de las mercancías, o duplicados en los registros de importación. Esta evaluación es fundamental para garantizar la precisión de los análisis de tendencias y de cesta de compras que se realizarán en etapas posteriores.
Este entendimiento profundo de los datos de importación de courier en Costa Rica es esencial para avanzar hacia los objetivos específicos del proyecto, incluyendo la implementación de análisis de cesta para identificar patrones de compra, el análisis de tendencias de las mercancías importadas, y la optimización de los procesos de importación para SwiftShip y ExpediteX.
Carga de archivo de datos fuente
Se inicia con una carga del conjunto de datos, ubicado en la carpeta ‘/data/raw/’ de nuestro directorio. Para evitar problemas de ubicación, se utiliza la variable parent_dir que representa el directorio padre de la solución. Esto se obtuvo al inicio de este notebook
# Lectura del archivo de datos y almacenamiento en variable data
data = pd.read_excel (parent_dir + '/data/raw/data.xlsx', sheet_name='UnifiedData')
# Se despliega los primeros registros de los datos
data.head()| DUA | Item del DUA | Fecha DUA | Aduana | Regimen | Modalidad | Importador | Proveedor | Marca | Modelo | ... | Total IVA US$ | % Ley 6946 | Total Ley 6946 US$ | % DAI | Total DAI US$ | COSTO por PROCOMER US$ | % S.C | Total SC US$ | Otros impuestos US$ | Total de Impuestos | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 005-2022-001495 | 1 | 2022-01-03 | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | SwiftShip | No disponible | No disponible | No disponible | ... | 6.45 | 1 | 0.43 | 14 | 6.04 | 3 | 0 | 0.00 | 0.11 | 16.03 |
| 1 | 005-2022-001495 | 2 | 2022-01-03 | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | SwiftShip | No disponible | No disponible | No disponible | ... | 92.12 | 1 | 5.61 | 14 | 78.49 | 0 | 10 | 63.91 | 0.00 | 240.13 |
| 2 | 005-2022-001495 | 3 | 2022-01-03 | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | SwiftShip | No disponible | No disponible | No disponible | ... | 86.12 | 1 | 5.76 | 14 | 80.65 | 0 | 0 | 0.00 | 0.00 | 172.53 |
| 3 | 005-2022-001495 | 4 | 2022-01-03 | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | SwiftShip | No disponible | No disponible | No disponible | ... | 51.21 | 1 | 3.58 | 9 | 32.23 | 0 | 0 | 0.00 | 0.00 | 87.02 |
| 4 | 005-2022-001495 | 5 | 2022-01-03 | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | SwiftShip | No disponible | No disponible | No disponible | ... | 9.54 | 1 | 0.64 | 14 | 8.94 | 0 | 0 | 0.00 | 0.00 | 19.12 |
5 rows × 49 columns
Lectura de catálogos
Se carga la información del catálogo hecho con base en el Sistema Armonizado (SA), es código según se indicó con anterioridad, es una clasificación de mercancías creado por la Organización Mundial de Aduanas (OMA) y está compuesto por 6 dígitos (Subpartidas) con aceptación en casi todo el mundo. Para efectos del proyecto, se utiliza la codificación a nivel de partida (4 dígitos) para facilitar el proceso de interpretación, sin que esto afecte la codificación original de la OMA.
# Variable para administrar los datos de los catálogos
data_catalogo = pd.read_excel(parent_dir + '/data/raw/catalogo.xlsx', sheet_name='Catálogo')
# Despliegue de primeras filas del conjunto de datos
data_catalogo.head()| Código Sistema Armonizado | Descripción | |
|---|---|---|
| 0 | 9504 | VIDEOCONSOLAS Y MÁQUINAS ... |
| 1 | 8516 | CALENTADORES ELÉCTRICOS DE AGUA DE CAL... |
| 2 | 3926 | LAS DEMÁS MANUFACTURAS DE PLÁSTICO Y... |
| 3 | 9506 | ARTÍCULOS Y MATERIAL PARA CULTURA FÍSI... |
| 4 | 9503 | TRICICLOS, PATINETES, COCHES DE PEDAL Y JUGUET... |
Unificación de datos
Se unifican ambas fuentes de datos en un solo archivo para darle tratamiento durante este proyecto. Esto se hace realizando un inner join entre ambos conjuntos de datos, y de esta manera poder contar con las descripciones para todas las partidas
data = data.merge(data_catalogo, left_on='Código Sistema Armonizado', right_on='Código Sistema Armonizado')
data.head()| DUA | Item del DUA | Fecha DUA | Aduana | Regimen | Modalidad | Importador | Proveedor | Marca | Modelo | ... | % Ley 6946 | Total Ley 6946 US$ | % DAI | Total DAI US$ | COSTO por PROCOMER US$ | % S.C | Total SC US$ | Otros impuestos US$ | Total de Impuestos | Descripción | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 005-2022-001495 | 1 | 2022-01-03 | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | SwiftShip | No disponible | No disponible | No disponible | ... | 1 | 0.43 | 14 | 6.04 | 3 | 0 | 0.0 | 0.11 | 16.03 | VIDEOCONSOLAS Y MÁQUINAS ... |
| 1 | 005-2022-001500 | 11 | 2022-01-03 | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | SwiftShip | No disponible | No disponible | No disponible | ... | 1 | 8.61 | 14 | 120.60 | 0 | 0 | 0.0 | 0.00 | 257.99 | VIDEOCONSOLAS Y MÁQUINAS ... |
| 2 | 005-2022-001501 | 8 | 2022-01-03 | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | SwiftShip | No disponible | No disponible | No disponible | ... | 1 | 4.14 | 14 | 57.90 | 0 | 0 | 0.0 | 0.00 | 123.87 | VIDEOCONSOLAS Y MÁQUINAS ... |
| 3 | 005-2022-040801 | 8 | 2022-01-24 | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | SwiftShip | No disponible | No disponible | No disponible | ... | 1 | 0.71 | 14 | 9.98 | 0 | 0 | 0.0 | 0.00 | 21.35 | VIDEOCONSOLAS Y MÁQUINAS ... |
| 4 | 005-2022-040801 | 9 | 2022-01-24 | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | SwiftShip | No disponible | No disponible | No disponible | ... | 1 | 0.81 | 14 | 11.39 | 0 | 0 | 0.0 | 0.00 | 24.37 | VIDEOCONSOLAS Y MÁQUINAS ... |
5 rows × 50 columns
Descripción de valores en columnas de datos – Listo
Hacer una descripción de valores en columnas de datos en el proceso de data understanding es esencial para comprender el contenido y la estructura de los datos, identificar problemas de calidad, y detectar patrones y tendencias preliminares. Este análisis inicial permite validar hipótesis, preparar adecuadamente los datos para modelos y algoritmos posteriores, y asegurar una comunicación clara y documentada de los hallazgos. En el proyecto CRISP-DM para SwiftShip y ExpediteX, esto garantiza que las decisiones estratégicas se basen en datos precisos y bien entendidos.
- Año: Año en que se realizaron las importaciones.
- DUA: Documento Único Administrativo, identificador de la operación de importación.
- Item: Número de ítem en la factura.
- Fecha: Fecha de la operación de importación.
- Aduana: Aduana por la que ingresaron los productos.
- Regimen: Régimen aduanero bajo el cual se importaron los productos.
- Modalidad: Modalidad de importación.
- Importador: Empresa que importó los productos.
- Proveedor: Proveedor de los productos importados.
- Marca: Marca de los productos importados.
- Modelo: Modelo de los productos importados.
- Factura: Número de factura de la operación de importación.
- Código SAC: Código del Sistema Armonizado de Designación y Codificación de Mercancías.
- Vía Transporte: Vía por la que se transportaron los productos.
- País de Origen: País de origen de los productos.
- Pais de Procedencia: País de procedencia de los productos.
- Pais de Adquisición: País donde se adquirieron los productos.
- Cantidad Comercial: Cantidad de productos importados.
- Unidad de Medida: Unidad de medida de los productos importados.
- Volúmen Físico: Volumen físico de los productos importados.
- Bultos: Cantidad de bultos en los que se transportaron los productos.
- U$S FOB: Valor FOB (Free On Board) de los productos en dólares estadounidenses.
- U$S FOB Unit.: Valor unitario FOB de los productos en dólares estadounidenses.
- U$S Flete: Costo del flete en dólares estadounidenses.
- U$S Seguro: Costo del seguro en dólares estadounidenses.
- U$S CIF: Valor CIF (Cost, Insurance and Freight) de los productos en dólares estadounidenses.
- U$S Unitario: Valor unitario de los productos en dólares estadounidenses.
- Valor en Aduana U$S: Valor en aduana de los productos en dólares estadounidenses.
- Kg netos: Peso neto de los productos en kilogramos.
- Kg brutos: Peso bruto de los productos en kilogramos.
- Descripción de Mercancía: Descripción de los productos importados.
- ID Declarante: Identificador del declarante.
- Declarante: Nombre del declarante.
- ID Agente: Identificador del agente de aduanas.
- Agente: Nombre del agente de aduanas.
- ID Localización: Identificador de la localización.
- Localización: Localización de la operación de importación.
- % IVA: Porcentaje del Impuesto al Valor Agregado.
- IVA - U$S: Valor del IVA en dólares estadounidenses.
- % Ley 6946: Porcentaje de la Ley 6946.
- Ley 6946 U$S: Valor de la Ley 6946 en dólares estadounidenses.
- % DAI: Porcentaje del Derecho Arancelario de Importación.
- DAI U$S: Valor del DAI en dólares estadounidenses.
- PROCOMER U$S: Valor de PROCOMER en dólares estadounidenses.
- % S.C: Porcentaje de S.C.
- S.C. U$S: Valor de S.C en dólares estadounidenses.
- Otros Imp. U$S: Otros impuestos en dólares estadounidenses.
- Total de Impuestos: Total de impuestos de la operación de importación.
- Proporción Pr FOB / impuestos: Proporción entre el valor FOB y los impuestos.
- Proporción VA / impuestos: Proporción entre el valor en aduana y los impuestos.
Análisis Estadístico
Ayuda a entender cómo están distribuidos los datos en términos de frecuencia, media, mediana, moda, rangos y varianza, lo cual permite identificar patrones generales en las importaciones. Al analizar las tendencias a lo largo de los años, codificación de las mercancías importadas, países de origen y procedencia, y otros atributos, se pueden identificar patrones que ayuden a tomar decisiones estratégicas. Además, el análisis descriptivo permite detectar valores atípicos o inconsistencias en los datos, lo cual es crucial para asegurar la calidad y la integridad de la información. Identificar oportunidades para optimizar los procesos de importación, reducir costos y mejorar la eficiencia operativa también se facilita con este análisis. Asegurar que todas las importaciones cumplen con las regulaciones y requisitos legales, incluyendo la correcta aplicación de impuestos y aranceles, es fundamental para el cumplimiento normativo. Finalmente, un análisis descriptivo proporciona una base sólida para la planificación y la elaboración de pronósticos futuros, basados en el análisis de datos históricos.
# Métricas descriptivas de los datos
data.describe(include='all')
| DUA | Item del DUA | Fecha DUA | Aduana | Regimen | Modalidad | Importador | Proveedor | Marca | Modelo | ... | % Ley 6946 | Total Ley 6946 US$ | % DAI | Total DAI US$ | COSTO por PROCOMER US$ | % S.C | Total SC US$ | Otros impuestos US$ | Total de Impuestos | Descripción | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| count | 178434 | 178434.000000 | 178434 | 178434 | 178434 | 178434 | 178434 | 178434 | 178434 | 178434 | ... | 178434.0 | 178434.000000 | 178434.0 | 178434.000000 | 178434.000000 | 178434.0 | 178434.000000 | 178434.000000 | 178434.00000 | 178434 |
| unique | 4176 | NaN | NaN | 1 | 1 | 2 | 2 | 12 | 16 | 33 | ... | 8.0 | NaN | 11.0 | NaN | NaN | 16.0 | NaN | NaN | NaN | 456 |
| top | 005-2023-732459 | NaN | NaN | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | ExpediteX | No disponible | No disponible | No disponible | ... | 1.0 | NaN | 14.0 | NaN | NaN | 0.0 | NaN | NaN | NaN | TRICICLOS, PATINETES, COCHES DE PEDAL Y JUGUET... |
| freq | 480 | NaN | NaN | 178434 | 178434 | 178357 | 143547 | 178393 | 178357 | 178357 | ... | 93314.0 | NaN | 56616.0 | NaN | NaN | 96091.0 | NaN | NaN | NaN | 13455 |
| mean | NaN | 63.527013 | 2022-06-23 05:30:13.497427968 | NaN | NaN | NaN | NaN | NaN | NaN | NaN | ... | NaN | 0.376309 | NaN | 3.501689 | 0.066882 | NaN | 0.812547 | 0.003029 | 10.82316 | NaN |
| min | NaN | 1.000000 | 2021-01-04 00:00:00 | NaN | NaN | NaN | NaN | NaN | NaN | NaN | ... | NaN | 0.000000 | NaN | 0.000000 | 0.000000 | NaN | 0.000000 | 0.000000 | 0.00000 | NaN |
| 25% | NaN | 12.000000 | 2021-08-05 00:00:00 | NaN | NaN | NaN | NaN | NaN | NaN | NaN | ... | NaN | 0.000000 | NaN | 0.000000 | 0.000000 | NaN | 0.000000 | 0.000000 | 0.59000 | NaN |
| 50% | NaN | 46.000000 | 2022-04-06 00:00:00 | NaN | NaN | NaN | NaN | NaN | NaN | NaN | ... | NaN | 0.140000 | NaN | 0.940000 | 0.000000 | NaN | 0.000000 | 0.000000 | 3.94000 | NaN |
| 75% | NaN | 100.000000 | 2023-05-17 00:00:00 | NaN | NaN | NaN | NaN | NaN | NaN | NaN | ... | NaN | 0.360000 | NaN | 3.320000 | 0.000000 | NaN | 0.000000 | 0.000000 | 10.43000 | NaN |
| max | NaN | 480.000000 | 2023-12-28 00:00:00 | NaN | NaN | NaN | NaN | NaN | NaN | NaN | ... | NaN | 11.530000 | NaN | 161.370000 | 3.000000 | NaN | 242.510000 | 12.000000 | 476.31000 | NaN |
| std | NaN | 60.202672 | NaN | NaN | NaN | NaN | NaN | NaN | NaN | NaN | ... | NaN | 0.797761 | NaN | 8.447561 | 0.442915 | NaN | 5.652555 | 0.065990 | 23.05286 | NaN |
11 rows × 50 columns
Verificación de valores nulos
Se verifica la existencia de valores nulos en el conjunto de datos
# Revisión de valores faltantes
data.isnull().sum()DUA 0
Item del DUA 0
Fecha DUA 0
Aduana 0
Regimen 0
Modalidad 0
Importador 0
Proveedor 0
Marca 0
Modelo 0
Factura 0
Código SAC 0
Código Sistema Armonizado 0
Modo transporte 0
País de Origen 0
Pais de Procedencia 0
Pais de Adquisición 0
Cantidad 0
Unidad de Medida 0
Volúmen Físico 0
Cantidad de bultos 0
Valor FOB US$ 0
Valor FOB US$ por unidad 0
Costo flete US$ 0
Costo seguro US$ 0
Valor CIF US$ 0
Valor CIF US$ unitario 0
Valor en Aduana US$ 0
Peso neto Kg. 0
Peso bruto Kg. 0
Peso bruto en Lbs. 0
Descripción de Mercancía 0
ID Declarante 0
Declarante 0
ID Agente Aduanero 0
Agente aduanero 0
ID Localización 0
Localización 0
% IVA 0
Total IVA US$ 0
% Ley 6946 0
Total Ley 6946 US$ 0
% DAI 0
Total DAI US$ 0
COSTO por PROCOMER US$ 0
% S.C 0
Total SC US$ 0
Otros impuestos US$ 0
Total de Impuestos 0
Descripción 0
dtype: int64Histogramas
Los histogramas representados permiten visualizar la distribución de los datos, identificando patrones y tendencias temporales, tipos de productos más importados y rangos de valores comunes. Facilitan la detección de outliers y variaciones en costos y pesos, ayudando a analizar la eficiencia logística y el impacto económico de las importaciones. Esta representación visual es esencial para optimizar procesos y tomar decisiones estratégicas informadas.
import plotly.express as px
# Lista de columnas específicas para las cuales quieres generar histogramas
columnas_especificas = ['Fecha DUA', 'Código Sistema Armonizado', 'Valor FOB US$', 'Costo flete US$', 'Costo seguro US$', 'Valor CIF US$','Peso bruto en Lbs.']
# 'Año', 'DUA', 'Item del DUA', 'Fecha DUA', 'Aduana', 'Regimen',
# 'Modalidad', 'Importador', 'Proveedor', 'Marca', 'Modelo', 'Factura',
# 'CodSA', 'Modo transporte', 'País de Origen', 'Pais de Procedencia',
# 'Pais de Adquisición', 'Cantidad', 'Unidad de Medida', 'Volúmen Físico',
# 'Cantidad de bultos', 'Valor FOB US$', 'Valor FOB US$ por unidad',
# 'Costo flete US$', 'Costo seguro US$', 'Valor CIF US$',
# 'Valor CIF US$ unitario', 'Valor en Aduana US$', 'Peso neto Kg.',
# 'Peso bruto Kg.', 'Peso bruto en Lbs.', 'Descripción de Mercancía',
# 'ID Declarante', 'Declarante', 'ID Agente Aduanero', 'Agente aduanero',
# 'ID Localización', 'Localización', '% IVA', 'Total IVA US$',
# '% Ley 6946', 'Total Ley 6946 US$', '% DAI', 'Total DAI US$',
# 'COSTO por PROCOMER US$', '% S.C', 'Total SC US$',
# 'Otros impuestos US$', 'Total de Impuestos', 'Descripción '
# Crea histogramas para las columnas especificadas
for columna in columnas_especificas:
fig = px.histogram(data, x=columna, title=f"Histograma de {columna}")
fig.show()Data Preparation
data['Año'] = data['DUA'].str[4:8]
# Mover la columna Anno a la primera posición
año = data.pop('Año')
data.insert(0, 'Año', año)
data.head()| Año | DUA | Item del DUA | Fecha DUA | Aduana | Regimen | Modalidad | Importador | Proveedor | Marca | ... | % Ley 6946 | Total Ley 6946 US$ | % DAI | Total DAI US$ | COSTO por PROCOMER US$ | % S.C | Total SC US$ | Otros impuestos US$ | Total de Impuestos | Descripción | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 2022 | 005-2022-002080 | 1 | 2022-01-04 | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | ExpediteX | No disponible | No disponible | ... | 1 | 0.07 | 14 | 1.04 | 3 | 0 | 0.0 | 0.11 | 5.33 | BISUTERÍA |
| 1 | 2022 | 005-2022-009376 | 125 | 2022-01-07 | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | ExpediteX | No disponible | No disponible | ... | 1 | 0.05 | 14 | 0.67 | 0 | 0 | 0.0 | 0.00 | 1.44 | BISUTERÍA |
| 2 | 2022 | 005-2022-020652 | 59 | 2022-01-13 | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | ExpediteX | No disponible | No disponible | ... | 1 | 0.13 | 14 | 1.82 | 0 | 0 | 0.0 | 0.00 | 3.89 | BISUTERÍA |
| 3 | 2022 | 005-2022-020661 | 31 | 2022-01-13 | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | ExpediteX | No disponible | No disponible | ... | 1 | 0.08 | 14 | 1.06 | 0 | 0 | 0.0 | 0.00 | 2.27 | BISUTERÍA |
| 4 | 2022 | 005-2022-020670 | 41 | 2022-01-13 | SANTAMARIA | IMPORTACION DEFINITIVA | ENTREGA RAPIDA | ExpediteX | No disponible | No disponible | ... | 1 | 0.10 | 14 | 1.34 | 0 | 0 | 0.0 | 0.00 | 2.87 | BISUTERÍA |
5 rows × 50 columns
# Se cuenta con información de dos años completos
distinct_values = data['Año'].unique()
print(distinct_values)['2022' '2023' '2021']print(data.columns)Index(['Año', 'DUA', 'Item del DUA', 'Fecha DUA', 'Aduana', 'Regimen',
'Modalidad', 'Importador', 'Proveedor', 'Marca', 'Modelo', 'Factura',
'CodSA', 'Modo transporte', 'País de Origen', 'Pais de Procedencia',
'Pais de Adquisición', 'Cantidad', 'Unidad de Medida', 'Volúmen Físico',
'Cantidad de bultos', 'Valor FOB US$', 'Valor FOB US$ por unidad',
'Costo flete US$', 'Costo seguro US$', 'Valor CIF US$',
'Valor CIF US$ unitario', 'Valor en Aduana US$', 'Peso neto Kg.',
'Peso bruto Kg.', 'Peso bruto en Lbs.', 'Descripción de Mercancía',
'ID Declarante', 'Declarante', 'ID Agente Aduanero', 'Agente aduanero',
'ID Localización', 'Localización', '% IVA', 'Total IVA US$',
'% Ley 6946', 'Total Ley 6946 US$', '% DAI', 'Total DAI US$',
'COSTO por PROCOMER US$', '% S.C', 'Total SC US$',
'Otros impuestos US$', 'Total de Impuestos', 'Descripción '],
dtype='object')Proceso de creación y conexión a base de datos
Una vez ordenados y definida la información es necesario respaldar los datos en la base de datos. Para esto, se utiliza una base de datos SQLlite para almacenarlos.
# data.hist(figsize=(20, 20))
# plt.show()
# #bank_data.histo# import plotly.express as px
# # Select numerical columns
# numerical_columns = data.select_dtypes(include=['int64', 'float64']).columns
# # Create histograms for numerical variables
# for column in numerical_columns:
# fig = px.histogram(data, x=column, title=f"Histograma de {column}")
# fig.show()ESTO HAY QUE DEFINIR PARA QUÉ nos sirve
Análisis de la cantidad de DUAs por Mes y Código SAC
Para realizar un análisis más detallado de la cantidad de DUAs por mes y código SAC, hemos utilizado Python y Plotly para crear un gráfico de barras interactivo. Este gráfico nos permite visualizar la distribución de la cantidad de DUAs para un importador específico en un año determinado.
Procedimiento
Filtrado de datos: Primero, hemos filtrado los datos para seleccionar un año específico y un importador particular. En este caso, hemos seleccionado el año 2022 y el importador ‘LIBERTY EXPRESS CORPORATE VC SOCIEDAD AN’.
Agrupación de datos: Luego, hemos agrupado los datos filtrados por mes y código SAC, contando la cantidad de DUAs en cada grupo.
Creación del gráfico de barras: Utilizando Plotly Express, hemos creado un gráfico de barras que muestra la cantidad de DUAs por mes y código SAC para el año e importador seleccionados. Cada barra representa la cantidad de DUAs asociadas a un código SAC específico en un mes determinado.
Interpretación
Este gráfico nos permite identificar patrones o tendencias en la distribución de la cantidad de DUAs para el importador seleccionado a lo largo del año 2022. Podemos observar qué tipos de productos (definidos por el código SAC) tienen una mayor o menor incidencia en diferentes meses del año, lo que puede proporcionar información útil para la planificación y la toma de decisiones estratégicas en la gestión de importaciones.
# Agrupar los datos por año, importador, mes y Código SAC y contar la cantidad de DUAs
data['Mes'] = data['Año'].str[5:7]
duas_por_año_importador_mes_sac = data.groupby(['Año', 'Importador', 'Mes', 'Código Sistema Armonizado']).size().reset_index(name='Cantidad_DUAs')
# Crear el gráfico para todos los importadores y años
fig = px.bar(duas_por_año_importador_mes_sac, x='Mes', y='Cantidad_DUAs', color='Código Sistema Armonizado',
facet_col='Año', facet_row='Importador',
labels={'Mes': 'Mes', 'Cantidad_DUAs': 'Cantidad de DUAs', 'Código SA': 'Código Sistema Armonizado'},
width=800, height=600)
# Actualizar el diseño del gráfico
fig.update_layout(title='Cantidad de DUAs por Mes y Código Sistema Armonizado para todos los importadores y años',
xaxis_title='Mes', yaxis_title='Cantidad de DUAs')
# Mostrar el gráfico
fig.show()Este código es útil para el análisis de datos ya que permite visualizar las 20 principales operaciones de importación (DUAs) en términos de U$S FOB. FOB (Free On Board) es un término de comercio internacional que indica el valor de los bienes en el punto de embarque, es decir, el valor de los bienes antes de ser exportados.
Al visualizar estos datos, los analistas pueden identificar rápidamente cuáles son las operaciones de importación más valiosas en términos de U$S FOB. Esto puede ser útil para identificar tendencias, patrones o anomalías en los datos, lo que puede informar decisiones comerciales o estratégicas
def plot_top_20_duas(data):
"""
Grafica las 20 principales DUAs por Valor FOB US$ utilizando plotly.express.
Parámetros:
- data (pandas.DataFrame): El DataFrame de entrada que contiene los datos.
Retorna:
- None
"""
# Obtener las 20 principales DUAs por cantidad
top_20_duas = data['DUA'].value_counts().head(20).index
# Filtrar los datos para incluir solo las DUAs seleccionadas
filtered_data = data[data['DUA'].isin(top_20_duas)]
# Agrupar los datos por DUA y sumar los valores de Valor FOB US$
aggregated_data = filtered_data.groupby('DUA')['Valor FOB US$'].sum().reset_index()
# Ordenar los datos por Valor FOB US$ de forma descendente
aggregated_data = aggregated_data.sort_values(by='Valor FOB US$', ascending=False)
# Crear el gráfico de barras utilizando plotly express
fig = px.bar(aggregated_data, x='DUA', y='Valor FOB US$',
labels={'DUA': 'DUA', 'Valor FOB US$': 'Valor FOB US$'},
title='Top 20 DUAs por Valor FOB US$')
fig.update_layout(xaxis_tickangle=-90)
fig.show(renderer = "notebook")
plot_top_20_duas(data)??? Porque CIF?
U$S CIF vs. Kg netos: Esta comparación puede ayudar a entender si hay alguna relación entre el costo de las mercancías y su peso neto. Podría ser útil para identificar si los productos más pesados tienden a ser más costosos o si existe alguna otra relación entre estas dos variables.
PENDIENTE DEFINIR SI ESTO NOS SIRVE
#import plotly.express as px
# Create the scatter plot with different colors based on the importer and hover information including 'Descripción de Mercancía'
fig_cif_vs_kg = px.scatter(data, x='Peso neto Kg.', y='Valor CIF US$', color='Importador',
title='U$S CIF vs. Kg netos',
hover_data={'Descripción de Mercancía': True})
# Show the plot
fig_cif_vs_kg.show(renderer = "notebook")